Nuevo modelo Astra de OpenAI

Desde la perspectiva de mercado, el anuncio del modelo Astra de OpenAI parece ser un hito técnico, pendiente de ser validado completamente, pero, sobre todo, un importante desafío de gobernanza. Lo preocupante para la sociedad no es solo la escala de sus capacidades, sino la opacidad intrínseca en sus procesos de inferencia, que en esta nueva versión se vuelve más opaca. Cuando la trazabilidad de un modelo es limitada, la toma de decisiones basada en datos pierde un pilar fundamental: la capacidad de auditar cómo el sistema pondera las variables y valida sus hipótesis intermedias. 

Esto se vuelve todavía peor teniendo en cuenta el incidente sucedido durante este verano, que debe poneros en alerta respecto las capacidades reales de estas organizaciones respecto la seguridad y fiabilidad de estos sistemas. 

Esta falta de explicabilidad tiene implicaciones directas en la seguridad de la IA. Sin una visión clara de la arquitectura interna y del razonamiento del modelo, resulta sumamente complejo garantizar la mitigación de sesgos, prevenir alucinaciones complejas o proteger el sistema ante vulnerabilidades y ataques adversarios. 

La adopción generalizada de sistemas con este nivel de caja negra exige un cambio de paradigma; el lanzamiento de Astra debe impulsar con urgencia marcos regulatorios y auditorías de riesgo más rigurosos que protejan tanto a las organizaciones como a la ciudadanía. 

El lanzamiento de GPT-6 Astra ha sorprendido a la comunidad de la IA porque supone un salto respecto a sus competidores, posicionándolo claramente como el modelo que en las evaluaciones controladas da el mejor rendimiento. A su vez, traslada a la sociedad y a las empresas un reto de gobernanza de estos modelos dado que, aunque la compañía insiste en que ha realizado notables esfuerzos para mejorar el alineamiento, las nuevas técnicas que se están aplicando pueden limitar la explicabilidad del comportamiento. A esto le tenemos que sumar que algunas de sus capacidades más sensibles comienzan a estar sujetas a acceso restringido y acreditación, lo cual puede chocar con la soberanía europea. Si a esto le añadimos incidentes de ciberseguridad, como el que sufrió recientemente Hugging Face, vemos que la gobernanza de este tipo de modelos es mejorable y dista de ser sencilla. 

Las declaraciones de ejecutivos de OpenAI que sugieren que Astra marca el inicio de la era de la inteligencia artificial general (AGI) son una gran estrategia de marketing diseñada para alimentar las inversiones de capital riesgo más que como una materialización de inteligencia general. 

Estos programas están diseñados para imitar el lenguaje humano con tanta eficacia que inducen al público a proyectar sobre ellos una mente pensante, capacidades cognitivas o intenciones que en realidad no tienen. Independientemente de lo avanzadas que sean las capacidades de uso de ordenadores o las funcionalidades agénticas de GPT-6 Astra, el modelo sigue siendo una máquina de generación de medios sintéticos que opera exclusivamente sobre la forma lingüística —la estructura y la probabilidad matemática de los datos— sin ninguna conexión real con el significado ni mucho menos con una mente pensante, es decir una inteligencia artificial general comparable o superior a la humana. 

De hecho, el propio concepto de ‘inteligencia artificial general’ resulta problemático, pues hay un montón de diferentes definiciones. OpenAI lo ha definido históricamente en términos funcionales: sistemas altamente autónomos capaces de superar a los seres humanos en la mayor parte del trabajo económicamente valioso. Pero demostrar que un modelo satisface una definición tan amplia exige algo más que obtener resultados excepcionales en determinados benchmarks o realizar demostraciones espectaculares.  

De hecho, análisis independientes han señalado que Astra obtiene resultados muy desiguales en otros benchmarks. Por ejemplo, modelos competidores como Claude 5.1 de Anthropic siguen liderando en determinadas métricas que miden la capacidad de desarrollar software, mientras que Astra mostró, de hecho, un descenso en la calidad en comparación con su predecesor, GPT-5.6 Sol, en la resolución de otros benchmarks. 

Además, algunos de sus resultados más espectaculares requieren herramientas, memoria y componentes adicionales basados en técnicas distintas a las de los modelos grandes de lenguaje. Es decir, que se trata de una IA neurosimbólica y no de un LLM puro. Por lo tanto, no estamos en absoluto ante una inteligencia artificial general. Hablar de inteligencia artificial general, como hace OpenAI, es una estrategia de marketing. 

Pero existe un problema mucho más concreto sobre el que todos los expertos parecen estar de acuerdo: cuanto más capaces son estos sistemas de actuar autónomamente, más difícil puede resultar determinar qué están haciendo. Este aspecto adquiere especial relevancia en Astra. La propia OpenAI reconoce que el nuevo modelo presenta una disminución de la capacidad de monitorizar su funcionamiento y esto no es una buena noticia. Los equipos de seguridad, incluidos los de Redwood Research y el UK AI Security Institute (AISI), han señalado esto como una peligrosa regresión en algo tan importante como la transparencia y rendición de cuentas de estos sistemas cuando algo va mal.

Lo que estoy viendo con Astra me parece impresionante. Incluso trabajando en inteligencia artificial, sorprenden los avances que se están realizando en tan poco tiempo. Personalmente, creo que hay que dejar de lado el debate sobre si esto es inteligencia artificial general o no. Creo que ahora mismo tiene un fuerte componente comercial. No por ello hay que dejar de reconocer la importancia de los avances. 

Creo que hay que destacar la capacidad de este nuevo modelo en la utilización del ordenador: es capaz de manejar programas, navegar y completar tareas de varios pasos. Están apareciendo rápidamente ejemplos de creación de videojuegos y modelado 3D que son impresionantes. Evidentemente, son demostraciones y estas no garantizan que funcione igual en cualquier situación, pero mi impresión es que la transformación en el mundo del desarrollo de software se está acelerando. 

El resultado en ARC-AGI-3 también es muy relevante. Se trata de pequeños videojuegos desconocidos para el sistema, donde este debe descubrir las reglas para resolverlos. Astra alcanza una puntuación prácticamente perfecta (99,9 %) cuando usa una configuración determinada que conserva su razonamiento y gestiona el contexto. Con una configuración estándar se queda en un 62,7 %, más del doble del 30,2 % publicado para Claude Opus 5. Esto no significa haber alcanzado la AGI, pero sí muestra grandes avances en razonamiento complejo y en la habilidad y eficiencia de los sistemas para aprender nuevas tareas por sí mismos.  

Estos resultados muestran de nuevo la saturación de ciertos benchmarks y la necesidad de desarrollar pruebas más exigentes. Además, la diferencia entre configuraciones demuestra que importa cómo se construye el sistema completo: el modelo, las herramientas y la gestión del contexto. Creo que seguimos hablando de modelos, pero realmente cada vez trabajamos más con sistemas complejos que combinan estos elementos y donde los avances no son solo científicos, sino también de ingeniería para que esta orquestación funcione.  

Las nuevas capacidades de este modelo (y de los que están por venir) nos obligan a estar alerta, especialmente en el ámbito de la ciberseguridad. Pueden ayudar a corregir vulnerabilidades, pero también facilitar ataques.  Las administraciones y las empresas que prestan servicios esenciales deben prepararse para ese cambio. La automatización puede hacer viable encontrar y explotar vulnerabilidades que antes exigían mucho tiempo y conocimientos especializados. A nivel europeo es importante que abordemos estos riesgos sin quedarnos fuera del desarrollo ni del uso de esta tecnología. El acceso a los mejores sistemas y el criterio para aprovecharlos pueden marcar diferencias importantes.